Angkatan Tentera Soviet telah dikawal oleh Kementerian Pertahanan.[lower-alpha 2]

Ketuanya adalah Menteri Pertahanan, iaitu anggota penuh Politburo (Politburo pula diketuai oleh Setiausaha Agung Parti Komunis Kesatuan Soviet, secara umumnya pemimpin Kesatuan Soviet de facto) dan dari tahun 1934 seterusnya, dikepalai Marsyal Kesatuan Soviet. Kedua-dua orang awam dan profesional tentera berkhidmat sebagai Menteri Pertahanan. Antara tahun 1934 dan 1946, 1950 dan 1953, Kementerian Tentera Laut yang berasingan wujud dan Kementerian Pertahanan hanya bertanggungjawab bagi tentera laut dan udara. Pada praktiknya, Menteri Tentera Laut adalah pegawai yang lebih rendah dan Kementerian Pertahanan terus menguasai pembuatan dasar.

Dibawah Menteri Pertahanan ialah dua orang Timbalan Pertama Menteri Pertahanan; iaitu Ketua Turus Am, yang bertanggungjawab bagi operasi dan perancangan, dan Timbalan Pertama Menteri Pertahanan bagi Hal Ehwal Am, yang bertanggungjawab bagi pentadbiran. Dari tahun 1955 Pemerintah Tertinggi Pakatan Warsaw juga menyandang jawatan Timbalan Pertama Menteri Pertahanan. Menjelang tahun 1980an terdapat sebelas orang lagi Timbalan Menteri Pertahanan; termasuklah para panglima tertinggi lima cabang perkhidmatan.[6]